Ivan là đứa con được chờ đợi từ rất lâu của Vasili III. Khi ông mới lên ba, vua cha Vasily III qua đời vì một cái mụn biến chứng trở thành một ung nhọt chết người ở chân. Ivan được tuyên bố trở thành Đại vương công Moskva theo yêu cầu của vua cha. Ban đầu mẹ ông, Elena Glinskaya giữ vai trò nhiếp chính, nhưng bà cũng qua đời khi Ivan mới lên tám. Chức vụ nhiếp chính được các boyar thuộc nhà Shuisky nắm giữ cho tới khi Ivan nắm quyền lực năm 1544. Theo chính những bức thư của mình, ông thường cảm thấy bị bỏ rơi và bị các boyar thuộc hai dòng họ Shuisky và Belsky xúc phạm. Có lẽ những chấn thương tâm lý này góp phần khiến ông căm ghét các boyar và khiến ông bất ổn về tâm lý. Những tình cảm tiêu cực thể hiện trong những bức thư của ông có thể là một sự phản ánh tính khí gắt gỏng của ông.

Ngày 16 tháng 1 năm 1547, Ivan trở thành Nga hoàng tại đại giáo đường Uspensky khi 16 tuổi. Dù vừa xảy ra vụ Đại hoả hoạn 1547, thời kỳ đầu cầm quyền của ông là một trong những giai đoạn hiện đại hoá và cải cách trong hoà bình. Ivan xem xét lại các luật lệ (được gọi là sudebnik), tạo lập một đội quân thường trực (streltsy), thành lập nghị viện Nga đầu tiên cho các tiểu quốc phong kiến (Zemsky Sobor), hội đồng quý tộc (được gọi là Hội đồng được Lựa chọn), và xác nhận vị trí của Nhà thờ với Hội đồng Trăm Tăng hội, thống nhất các lễ nghi và các quy định giáo hội trong toàn bộ đất nước. Ông đưa ra sáng kiến tự quản tại các vùng nông thôn, chủ yếu tại Đông bắc Nga, nơi sinh sống của đa phần nông dân. Trong thời kỳ cầm quyền của ông lần đầu tiên báo in xuất hiện tại Nga (dù hai ông chủ nhà in đầu tiên người Nga Ivan Fedorov và Pyotr Mstislavets đã phải bỏ chạy khỏi Moskva tới Đại Công quốc Litva).

Năm 1547, Hans Schlitte, luật sư của Ivan, đã đưa các thợ thủ công Đức tới làm việc tại Nga. Tuy nhiên tất cả những người này đã bị bắt giữ tại Lübeck theo yêu cầu của Ba Lan và Livonia. Các hội buôn Đức đã từ chối cảng mới được Ivan cho xây dựng trên sông Narva năm 1550 và tiếp tục giao nhận hàng hoá tới các cảng ven biển Baltic thuộc Livonia. Nước Nga vẫn bị cô lập khỏi mạng lưới thương mại đường biển.

Ivan đã thành lập các kết nối thương mại mới, mở cửa Biển Trắng và cảng Arkhangelsk cho công ty Muscovy của các thương nhân Anh. Năm 1552 ông đánh bại Hãn quốc Kazan, do quân đội nước này đã nhiều lần tàn phá vùng đông bắc Nga,[1] và sáp nhập lãnh thổ nước này. Năm 1556, ông sáp nhập Hãn quốc Astrakhan và tiêu diệt chợ nô lệ lớn nhất trên sông Volga. Những cuộc chinh phục này đã làm phức tạp thêm sự di cư của những bộ tộc du cư từ châu Á tới châu Âu qua sông Volga và biến nước Nga trở thành một quốc gia đa sắc tộc và đa tôn giáo. Ông cho cho xây dựng đại giáo đường Thánh Basil tại kinh đô Moskva để kỷ niệm việc chinh phục Kazan. Truyền thuyết kể rằng ông ấn tượng trước kiến trúc công trình này tới mức đã cho làm mù mắt các kiến trúc sư để họ không thể xây dựng được thứ gì đẹp đẽ như thế nữa.

Những khía cạnh tiêu cực trong thời kỳ này gồm việc đưa ra áp dụng những luật lệ đầu tiên hạn chế sự di chuyển của người nông dân, cuối cùng dẫn tới tình trạng nông nô. Sự thay đổi lớn nhất trong tính cách của Ivan thường được cho là có liên quan tới lần ốm suýt chết của ông năm 1553 cùng cái chết của bà vợ đầu tiên, Anastasia Romanovna năm 1560. Ivan nghi ngờ các boyar đã đầu độc vợ mình và âm mưu lật đổ ông cùng người anh em họ, Vladimir Staritsa. Ngoài ra, trong thời kỳ ngã bệnh đó Ivan đã yêu cầu các boyar thề trung thành với người con cả của mình, khi ấy vẫn còn là một đứa trẻ. Nhiều boyar đã từ chối, vì cho rằng vị Nga hoàng không còn cơ hội sống sót. Điều này đã khiến Ivan nổi giận và càng khiến ông mất lòng tin vào họ. Sau sự kiện này nhiều người vô tội đã bị trả thù và giết hại, trong số đó có Đại giáo chủ Philip và công tước Aleksandr Gorbatyi-Shuisky.

Một vấn đề khác là việc thành lập Oprichnina năm 1565. Oprichnina là khu vực của Nga (chủ yếu là vùng đông bắc) nằm dưới quyền cai trị trực tiếp của Ivan và được duy trì an ninh bởi đội cận vệ riêng của ông, Oprichniki. Cả hệ thống Oprichnina đã bị một số nhà sử học coi là công cụ chống lại chính sách quý tộc cha truyền con nối (boyar) có truyền thống lâu dài ở Nga, những người chống lại chính sách chuyên chế Nga hoàng, trong khi những nhà sử học khác lại coi đó là một đấu hiệu bệnh hoang tưởng và sự suy sụp tinh thần của nhà vua.